CFPO: Counterfactual Policy Optimization for Multimodal Reasoning
面向多模态推理的反事实策略优化
🧭 多模态推理 · 反事实策略优化
Beijing University of Posts and Telecommunications
通过跨模态反事实增强正则化，强制视觉与文本因果一致性，显著减少多模态推理中的视觉忽略与幻觉漂移
📌 工作参考价值（3 点）
- CFPO 的反事实正则化可直接用于多模态商品理解：训练时随机遮盖商品图片关键区域，最大化模型输出与遮盖后预测的差异，强制依赖视觉特征，减少对标题文本的偏倚，适合电商搜索/推荐中的视觉质量评估。
- 在生成式推荐（GenRec）中使用多模态 LLM 生成 item 表示时，CFPO 的因果一致性训练可抑制视觉幻觉，提升 item 语义 ID 或描述的准确性，降低错误推荐风险。
- 方法无需外部奖励模型，可与 GRPO、DAPO 等现有 RL 流程无缝集成，工程实现成本低，可直接插入现有强化学习微调管线，快速验证对多模态推理任务的效果。